babl: improve icc number serialization
authorØyvind Kolås <pippin@gimp.org>
Mon, 18 Sep 2017 17:24:35 +0000 (19:24 +0200)
committerØyvind Kolås <pippin@gimp.org>
Mon, 18 Sep 2017 17:24:35 +0000 (19:24 +0200)
babl/babl-icc.c

index efe894b45e112c50b51b765146cbef912c78d640..b5e85fce98e412ebed9b4f379438a6f6e87c9c98 100644 (file)
@@ -151,7 +151,7 @@ static s15f16_t d_to_s15f16 (double value)
 {
   s15f16_t ret;
   ret.integer = floor (value);
-  ret.fraction = fmod(value, 1.0) * 65535.999;
+  ret.fraction = fmod(value, 1.0) * 65536.0;
   return ret;
 }
 
@@ -159,7 +159,7 @@ static u8f8_t d_to_u8f8 (double value)
 {
   u8f8_t ret;
   ret.integer = floor (value);
-  ret.fraction = fmod(value, 1.0) * 255.999;
+  ret.fraction = fmod(value, 1.0) * 256.0;
   return ret;
 }